Tư Mã Lượng là con thứ tư của Tư Mã Ý. Mẹ Lượng là Phục phu nhân. Khi hai người anh trai là Tư Mã Sư và Tư Mã Chiêu nắm quyền lực, ông chỉ giữ một chức quan hạng trung. Khi cháu ông là Tư Mã Viêm lên ngôi Hoàng đế, lập nhà Tây Tấn, kết thúc nhà Tào Ngụy, Tư Mã Lượng được phong làm Phù Phong Vương, chỉ huy quân đội ở Tần Châu (phía đông Cam Túc ngày nay) và Ung Châu (phía bắc và trung Thiểm Tây ngày nay).

Trong những năm thời Tấn Vũ Đế, ông được biết đến với đức tính hiếu thảo của mình vì vậy ông được phép theo dõi và can ngăn các vương gia thậm chí hoàng đế lúc cần thiết.

Năm 277, Vũ Đế chuyển Tư Mã Lượng tới chỉ huy quân sự Dự Châu (豫州, phía đông Hà Nam ngày nay) nhưng không lâu sau hoàng thượng lại đưa ông về kinh đô.